Život Prešova
online
online
Takáč: Vývoj umelej inteligencie je prirýchly, sme naň nepripravení
12.04.2023 Bratislava
Bratislava
12. apríla (TASR) - Výkonná umelá inteligencia sa vyvíja takým rýchlym
tempom, že spoločnosť sa na ňu nestihla pripraviť a nevie adekvátne
reagovať. Nie sú dostatočne preskúmané a ošetrené jej možné riziká. Nie
sú tiež nastavené potrebné pravidlá zo strany regulátorov a
zákonodarcov. Myslí si to vedec z Univerzity Komenského v Bratislave
Martin Takáč. Súhlasí preto s výzvou na dočasné pozastavenie vývoja
výkonných systémov umelej inteligencie.
"Výzva na dočasné pozastavenie vývoja umelej inteligencie silnejšej ako GPT-4 možno nie úplne presne pomenúva jej riziká, ale jej hlavnú myšlienku považujem za dobrú," skonštatoval. Vedec však podľa vlastných slov pochybuje, že výzvu budú rešpektovať veľké spoločnosti. "Komerčná i politická motivácia vyvíjať čo najvýkonnejšiu umelú inteligenciu je príliš silná," podotkol.
Upozornil, že regulátorom nebude stačiť ani pol roka, aby dobehli zameškané. Poukázal pritom na zámer Európskej únie zaviesť zákon, ktorý má upraviť uvádzanie systémov s prvkami umelej inteligencie na trh. "Od začiatku procesu po implementáciu do národných zákonov to bude trvať približne štyri roky, čo je strašne veľa, takže už v momente, keď začnú tieto zákony platiť, budú zastarané," doplnil. Financie na vývoj čo najvýkonnejšej umelej inteligencie by však bolo podľa neho prospešné aspoň dočasne presmerovať na lepšie preskúmanie jej fungovania, vrátane bezpečnostných aspektov a kontroly.
Súčasný vývoj v oblasti veľkých jazykových modelov podľa Takáča odštartoval preteky v zbrojení medzi veľkými hráčmi. "Kto bude mať prvý lepšiu umelú inteligenciu, môže ovládnuť trh. Práve z tohto dôvodu vývoj raketovo akceleroval, každý týždeň vychádzajú nové články," skonštatoval. Upozornil, že nová verzia chatbotu ChatGPT, zvaná GPT-4 má potenciál výrazne narušiť mnohé oblasti spoločnosti nielen pre svoje schopnosti, ale aj preto, že bola daná naraz k dispozícii prakticky každému.
Systémy, akým je GPT-4 či systémy syntetického generovania obrazu môžu podľa neho ohroziť autorské práva, ochranu osobných údajov či narušiť trh práce. Skonštatoval, že v nepovolaných rukách môžu byť tiež efektívnym nástrojom propagandy a manipulácie. "Ďalším rizikom je to, že systémy generatívnej umelej inteligencie nerozlišujú medzi pravdou a výmyslom – vždy vygenerujú nejakú odpoveď. Pokiaľ budú ľudia ohromení jej schopnosťami, budú mať tendenciu prijať jej odpovede bez toho, aby si ich overili," povedal.
Negatívny vplyv môžu mať podľa vedca aj na niektoré ľudské schopnosti, tvorivosť, spôsob myslenia či učenia sa. "V prípade, ak by niekedy v budúcnosti systémy umelej inteligencie presiahli ľudskú inteligenciu, môžu sa nám ľahko vymknúť spod kontroly a následky je potom ťažké predvídať," podotkol.
Systémy umelej inteligencie však majú podľa neho aj pozitíva. "V mnohom uľahčia a zefektívnia ľuďom prácu. Už dnes napríklad menia spôsob, akým sa programuje softvér, kde väčšinu kódu vygeneruje umelo-inteligentný systém," uviedol. V budúcnosti by nám podľa neho mohli pomôcť riešiť komplexné problémy ako napríklad klimatickú krízu.
Miliardár Elon Musk a skupina expertov koncom marca v otvorenom liste vyzvali na pozastavenie vývoja výkonných systémov umelej inteligencie, aby mohla byť preverená ich bezpečnosť. Predmetnú výzvu podpísalo viac ako tisíc odborníkov na umelú inteligenciu. Ich žiadosť podnietilo vydanie novej verzie chatbotu ChatGPT, zvanej GPT-4 z dielne americkej organizácie OpenAI.
"Výzva na dočasné pozastavenie vývoja umelej inteligencie silnejšej ako GPT-4 možno nie úplne presne pomenúva jej riziká, ale jej hlavnú myšlienku považujem za dobrú," skonštatoval. Vedec však podľa vlastných slov pochybuje, že výzvu budú rešpektovať veľké spoločnosti. "Komerčná i politická motivácia vyvíjať čo najvýkonnejšiu umelú inteligenciu je príliš silná," podotkol.
Upozornil, že regulátorom nebude stačiť ani pol roka, aby dobehli zameškané. Poukázal pritom na zámer Európskej únie zaviesť zákon, ktorý má upraviť uvádzanie systémov s prvkami umelej inteligencie na trh. "Od začiatku procesu po implementáciu do národných zákonov to bude trvať približne štyri roky, čo je strašne veľa, takže už v momente, keď začnú tieto zákony platiť, budú zastarané," doplnil. Financie na vývoj čo najvýkonnejšej umelej inteligencie by však bolo podľa neho prospešné aspoň dočasne presmerovať na lepšie preskúmanie jej fungovania, vrátane bezpečnostných aspektov a kontroly.
Súčasný vývoj v oblasti veľkých jazykových modelov podľa Takáča odštartoval preteky v zbrojení medzi veľkými hráčmi. "Kto bude mať prvý lepšiu umelú inteligenciu, môže ovládnuť trh. Práve z tohto dôvodu vývoj raketovo akceleroval, každý týždeň vychádzajú nové články," skonštatoval. Upozornil, že nová verzia chatbotu ChatGPT, zvaná GPT-4 má potenciál výrazne narušiť mnohé oblasti spoločnosti nielen pre svoje schopnosti, ale aj preto, že bola daná naraz k dispozícii prakticky každému.
Systémy, akým je GPT-4 či systémy syntetického generovania obrazu môžu podľa neho ohroziť autorské práva, ochranu osobných údajov či narušiť trh práce. Skonštatoval, že v nepovolaných rukách môžu byť tiež efektívnym nástrojom propagandy a manipulácie. "Ďalším rizikom je to, že systémy generatívnej umelej inteligencie nerozlišujú medzi pravdou a výmyslom – vždy vygenerujú nejakú odpoveď. Pokiaľ budú ľudia ohromení jej schopnosťami, budú mať tendenciu prijať jej odpovede bez toho, aby si ich overili," povedal.
Negatívny vplyv môžu mať podľa vedca aj na niektoré ľudské schopnosti, tvorivosť, spôsob myslenia či učenia sa. "V prípade, ak by niekedy v budúcnosti systémy umelej inteligencie presiahli ľudskú inteligenciu, môžu sa nám ľahko vymknúť spod kontroly a následky je potom ťažké predvídať," podotkol.
Systémy umelej inteligencie však majú podľa neho aj pozitíva. "V mnohom uľahčia a zefektívnia ľuďom prácu. Už dnes napríklad menia spôsob, akým sa programuje softvér, kde väčšinu kódu vygeneruje umelo-inteligentný systém," uviedol. V budúcnosti by nám podľa neho mohli pomôcť riešiť komplexné problémy ako napríklad klimatickú krízu.
Miliardár Elon Musk a skupina expertov koncom marca v otvorenom liste vyzvali na pozastavenie vývoja výkonných systémov umelej inteligencie, aby mohla byť preverená ich bezpečnosť. Predmetnú výzvu podpísalo viac ako tisíc odborníkov na umelú inteligenciu. Ich žiadosť podnietilo vydanie novej verzie chatbotu ChatGPT, zvanej GPT-4 z dielne americkej organizácie OpenAI.
www.ZIVOTPO.sk
